Địa bàn thành phố Hà Tĩnh ngày nay vào thời kỳ Bách Việt thuộc Vương quốc Việt Thường, sau đó thuộc về Vương quốc Văn Lang rồi Âu Lạc.

Thời Nhà Triệu thuộc Quận Cửu Chân.

Thời Bắc thuộc nằm trong châu Phúc Lộc.

Nhà Tiền Lê (980-1008) thuộc châu Thạch Hà.

Năm 1025, thuộc trại Định Phiên (nhà Lý).

Từ năm 1226 đến năm 1407 thuộc châu Nhật Nam (Nhà Trần - Hồ).

Trong giai đoạn 1407-1427 là đất huyện Bàn Thạch, châu Nam Tĩnh (Kỷ thuộc Minh).

Năm 1469, vua Lê Thánh Tông định bản đồ đất nước cho đến đầu đời Nguyễn là đất Thạch Hà, phủ Hà Hoa, thừa tuyên Nghệ An.

Năm 1831, vua Minh Mạng nhà Nguyễn chia trấn Nghệ An thành 2 tỉnh: Nghệ An (phía bắc sông Lam) và Hà Tĩnh (phía nam sông Lam). Khi đó xã Trung Tết, huyện Thạch Hà, phủ Hà Hoa, được chọn làm nơi đặt trụ sở tỉnh lỵ tỉnh Hà Tĩnh.

Tháng 2 năm 1886, Pháp nổ súng chiếm Thành Sen.

Ngày 3 tháng 7 năm 1924, Toàn quyền Đông Dương ra Nghị định thành lập thị xã Hà Tĩnh. Cho đến năm 1942, thị xã chỉ là một tỉnh lỵ nhỏ bé với diện tích 247 ha và 4.400 dân. Ngoài 4 xã mới sáp nhập năm 1920 là Đông Quế, Xã Tắc, Trung Hậu, Tiền Bạt, nội thị chia làm 8 khu phố: Tịnh Trung, Hoàn Thị, Tiền Môn, Hậu Môn, Tả Môn, Hữu Môn, Tân Giang, Nam Ngạn.

Năm 1946, thị xã Hà Tĩnh được nâng lên thành đơn vị hành chính ngang huyện, thuộc tỉnh. Diện tích 1,2 km² và dân số khoảng dưới 5.000 người.

Trong giai đoạn 1946 - 1957, thị xã Hà Tĩnh không thuộc tỉnh và chỉ là một đơn vị hành chính ngang xã, thuộc huyện Thạch Hà.

Năm 1958, thị xã trở lại là đơn vị hành chính thuộc tỉnh, nhưng cũng chỉ là một đơn vị cơ sở ngang xã.

Năm 1960, thị xã Hà Tĩnh được công nhận là đơn vị hành chính tương đương cấp huyện.

Năm 1975, thị xã vừa làm chức năng cấp huyện, vừa làm chức năng cơ sở, trực tiếp quản lý hai tiểu khu Bắc Hà, Nam Hà.

Trong giai đoạn 1976 - 1991, thị xã Hà Tĩnh là một đơn vị hành chính thuộc tỉnh Nghệ Tĩnh.

Tháng 9 năm 1989, chuyển 6 xã: Đại Nài, Thạch Linh, Thạch Phú, Thạch Quý, Thạch Trung, Thạch Yên thuộc huyện Thạch Hà về thị xã Hà Tĩnh quản lý.

Năm 1991, thị xã Hà Tĩnh là tỉnh lỵ của tỉnh Hà Tĩnh mới tái lập.[3]

Ngày 23 tháng 12 năm 1993, thành lập 2 phường Tân Giang và Trần Phú.

Ngày 2 tháng 1 năm 2004, chuyển 5 xã: Thạch Hạ, Thạch Môn, Thạch Đồng, Thạch Hưng, Thạch Bình thuộc huyện Thạch Hà về thị xã Hà Tĩnh quản lý; chuyển xã Thạch Phú thành phường Hà Huy Tập, chuyển xã Đại Nài thành phường Đại Nài.[4]

Ngày 19 tháng 7 năm 2006, thị xã Hà Tĩnh được công nhận là đô thị loại III.

Ngày 7 tháng 2 năm 2007, thành lập phường Nguyễn Du từ một phần diện tích tự nhiên và dân số của các phường Bắc Hà, Trần Phú và các xã Thạch Quý, Thạch Linh, Thạch Trung; chuyển xã Thạch Yên thành phường Văn Yên; chuyển 2 xã Thạch Quý và Thạch Linh thành 2 phường có tên tương ứng.[5]

Ngày 28 tháng 5 năm 2007, Thủ tướng Chính phủ Nguyễn Tấn Dũng đã ký nghị định số 89/2007/NĐ-CP về việc nâng cấp thị xã Hà Tĩnh thành thành phố Hà Tĩnh.[6]

Ngày 13 tháng 2 năm 2019, Thủ tướng Chính phủ Nguyễn Xuân Phúc ban hành Quyết định số 175/QĐ-Ttg công nhận thành phố Hà Tĩnh là đô thị loại II thuộc tỉnh Hà Tĩnh.[7]

Ngày 21 tháng 11 năm 2019, Ủy ban Thường vụ Quốc hội ban hành Nghị quyết về việc sắp xếp đơn vị hành chính cấp xã trên địa bàn tỉnh Hà Tĩnh. Theo đó, sáp nhập 2 xã Thạch Đồng và Thạch Môn thành xã Đồng Môn.[8]